-
1 точность до N десятичных знаков
Information technology: accurate to N decimal placeУниверсальный русско-английский словарь > точность до N десятичных знаков
-
2 точность до трёх десятичных знаков
•A precision of three decimal places is typical for analogue computers.
Русско-английский научно-технический словарь переводчика > точность до трёх десятичных знаков
-
3 точность до n знаков
Mathematics: n-digit precision (десятичных)Универсальный русско-английский словарь > точность до n знаков
См. также в других словарях:
Таблицы для перевода метрических (десятичных) мер в русские и русских — в метрические. — В Энциклопедическом Словаре принято употребление вообще десятичных мер, система которых по простоте своей обещает скоро сделаться международной. Основной единицей ее служит метр, французская мера длины, которой величина узаконена 7 го апреля 1795 … Энциклопедический словарь Ф.А. Брокгауза и И.А. Ефрона
Таблицы для перевода метрических (десятичных) мер в русские и русских — в метрические — В Энциклопедическом Словаре принято употребление вообще десятичных мер, система которых по простоте своей обещает скоро сделаться международной. Основной единицей ее служит метр, французская мера длины, которой величина узаконена 7 го апреля 1795 … Энциклопедический словарь Ф.А. Брокгауза и И.А. Ефрона
Пи (число) — У этого термина существуют и другие значения, см. Пи (значения). Иррациональные числа γ ζ(3) √2 √3 √5 φ α e π δ Система счисления Оценка числа … Википедия
Округление — математическая операция, позволяющая уменьшить количество знаков в числе за счёт замены числа его приближённым значением с определённой точностью. Содержание 1 Методы 1.1 Варианты округления 0,5 к ближайшему целому … Википедия
Математика исламского средневековья — Данная статья часть обзора История математики. Арабский халифат (750 г.) Математика Востока, в отличие от древнегреческой математики, в … Википедия
Числа с плавающей запятой — Плавающая запятая форма представления действительных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее… … Википедия
Запятая плавающая — Плавающая запятая форма представления дробных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее часто… … Википедия
Машинный эпсилон — Плавающая запятая форма представления дробных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее часто… … Википедия
Плавающая запятая — форма представления дробных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее часто используемое представление… … Википедия
Плавающая точка — Плавающая запятая форма представления дробных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее часто… … Википедия
Числа с плавающей точкой — Плавающая запятая форма представления дробных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее часто… … Википедия